ヘブの学習則(Hebbian Learning)
When an axon of cell A is near enough to excite a cell B and repeatedly or persistently takes part in firing it, some growth process or metabolic change takes place in one or both cells such that A's efficiency, as one of the cells firing B, is increased."
Naa_tsure.iconNeurons wire together if they fire together.ってやつ
https://scrapbox.io/files/64aed6913c236f001cba5a2a.png
$ Δw_{ij}=\eta r_i r_j
$ r_i ：プレシナプスニューロンiの発火頻度
$ r_j ：ポストシナプスニューロンjの発火頻度
$ w_{ij}：ニューロンiからjへの結合の強さ
ヘブ学習は発火頻度の情報のみから勝手に結合の強さが変化することで学習が起こる
Naa_tsure.iconもうすこし真面目に考えてみる
ヘブ則が満たすべき基準
局所性(Locality)
結合の強さの変化は２つのニューロンの間のみで特異的に起こる
協調性(Cooperativity)
結合の強さの増強は両方のニューロンが活動することでおこる
シナプス抑圧(Synaptic depression)
結合の強さを弱める機構が必要となる
Naa_tsure.iconHebbは強化の方向しか提唱していないが、それではいずれ飽和してしまう
境界性(Boundness)
結合の強さはある程度の範囲に収まる
Naa_tsure.icon結合の強さが無限に大きくなってしまうのは現実的でない
競争性(Competition)
ある場所における結合の強化は、別の場所の結合の犠牲のもとに成り立つ
長期安定性(Long-term stability)
以前に学習したものを保持する
Naa_tsure.icon安定性と可塑性のジレンマ